1
Dinámica del Azar y la Información
MATH005Lesson 9
00:00
Imagina un mundo donde el futuro no es un camino fijo, sino una red brillante de posibilidades. Dominar la Dinámica del Azar es cerrar la brecha entre la evolución estocástica —cómo los sistemas se mueven entre estados— y la cuantificación de la "novedad" o sorpresa inherente en esas transiciones.

1. La Arquitectura de las Transiciones de Estado

Considera la lógica del clima. Si asumimos que la lluvia de hoy es el único factor que influye en el mañana, entramos en el ámbito de la dinámica markoviana. Esto queda capturado elegantemente en EJEMPLO 2a:

Supongamos que si llueve mañana depende únicamente de las condiciones climáticas previas a través de si está lloviendo hoy. Si llueve hoy, llueve mañana con probabilidad $\alpha$; si no, llueve mañana con probabilidad $\beta$.

Esto crea una matriz de transición $P$ donde podemos calcular el flujo de probabilidad futura usando la Identidad de Chapman-Kolmogórov:

$$P_{ij}^{(2)} = \sum_{k=0}^{M} P_{kj}P_{ik}$$

2. El Ritmo de la Llegada

El azar no se trata solo de dónde a dónde vamos, sino de cuándo ocurren los eventos. En un proceso de Poisson, seguimos las llegadas discretas (como terremotos o desintegraciones radiactivas) con el tiempo.

  • Tiempo entre llegadas: Para un proceso de Poisson, sea $T_1$ el tiempo en que ocurre el primer evento. Para $n > 1$, sea $T_n$ el tiempo transcurrido entre el $(n-1)$-ésimo y el $n$-ésimo evento.
  • Estacionariedad: La secuencia $\{T_n, n=1, 2, \ldots\}$ consta de variables exponenciales independientes, determinadas por la tasa $\lambda$.

3. La Información como Reducción de la Sorpresa

La teoría de la información, pionera de Claude Shannon, cuantifica la incertidumbre. Se basa en una fundación algebraica hermosa, específicamente Axioma 4:

Axioma 4: $S(pq) = S(p) + S(q)$ para $0 < p \le 1, 0 < q \le 1$

Este axioma implica que la sorpresa de dos eventos independientes es la suma de sus sorpresas individuales, llevando directamente a la definición de Entropía de Shannon:

$$H(X) = -\sum_{i=1}^n p_i \log_2(p_i)$$

🎯 Insight Fundamental
Las dinámicas definen las reglas del juego (probabilidades de transición), mientras que la entropía mide cuánto aprendemos al jugar realmente el juego (ganancia de información). Si $\alpha=1$ y $\beta=1$ en nuestro modelo climático, el sistema es determinista; la entropía es cero porque la "noticia" no aporta nueva información.